图灵奖得主Pearl：若求大智慧，当知真因果 | 人工智能批判
海归学者发起的公益学术平台
分享信息，整合资源
交流学术，偶尔风月
UCLA的Judea Pearl教授是人工智能先驱，贝叶斯网络之父。他提出了概率和因果性推理演算法，彻底改变了人工智能最初基于规则和逻辑的研究理念，并因此于2011年荣获图灵奖。今天，知社编译整理Quanta Magazine对Pearl的专访，讨论了人工智能的因果论和他对领域现状的批判、机器的自由意志、和迟早来临的机器的罪恶，颇有启迪。
当前，人工智能的迅猛发展在很大程度上受益于Pearl教授的睿智和努力。在大部分计算机内存还装不下多少字节，人工智能学者对概率普遍半信半疑的时候，Pearl已经完成了未来几十年人工智能的奠基工作。早期的人工智能方法基于逻辑范式建模和推演，没有概率的概念。 Pearl在上世纪80年代将概率论和计量经济学方法引入人工智能建模，使大规模定量表示不确定事件发生的可能性和这些可能状态之间的关系成为可能，也成为当前各种人工智能应用的建模规范。可是如今Pearl教授却成为这一领域最尖锐的批评者。在他题为The Book of Why: The New Science of Cause and Effect 的新书中，Pearl指出，人工智能目前最大的发展障碍在于未能理解“智能”的本质。
三十年前，人工智能的主要挑战，是编程计算机使其将潜在的原因与一系列可观测的事件联系在一起。Pearl提出贝叶斯网络，用节点表示我们感兴趣的变量，用边表示变量之间的相互影响关系，用条件概率定量表示这些影响，解决了这一问题。可是，在Pearl眼里，人工智能当前深陷概率关联的泥潭，不能自拔。深度学习和神经网络的进步，使机器可以轻而易举地在围棋和扑克等诸多领域战胜人类，无人驾驶也成为可能。可是Pearl并不以为然。这一切的一切，只是计算机几十年前就已胜任的工作的升级版，所做的一切，不过是在海量数据中寻找规律，曲线拟合而已：
All the impressive achievements of deep learning amount to just curve fitting.
图片来自网络
要理解Pearl的洞见，我们需要了解他提出的因果推断的三个层次，即关联（Association）、介入（Intervention）和违实（Counterfactual）。
第一层次的关联，可以用条件概率简化为P（y|x），即x发生时，y也发生。如天亮了，堵车了，两者存在关联，但其实并无因果。这是最简单的因果推断类型，可以从数据中根据条件和期望判断结果。
第二层次的介入，可以用条件概率形式化为P(y|do(x), z)，其中z表示do(x)引起的事件，即“我现在做什么，将来会发生什么”，比如健身虽然通常与减肥关联，但也可能因为健身和食量大增吃多了，体重反而增加，这其中饮食选择就是介入。与关联不同的是，介入面对的是未来性问题，无法通过直接观测推断，但可以通过训练历史数据建模。
第三层次的违实，可以简化为P(y_x|x’,y’)，面向的是过去。即已知事件x’和y’的现实下，假设过去发生的事件不是x’而是x，那么发生y事件的概率是多少？例如假如没有健身，我会变胖吗？目前基于统计的机器学习都缺乏违实这一层级的信息，无力回答违实问题。
在他的新书中，Pearl阐述了如何真正实现人工智能的观点，关键在于用因果推论取代推理，其中一大支柱就是违实算法。例如目前的人工智能可以通过发热和身体酸痛判断一个人可能患上了疟疾，但真正的人工智能应当具备判断某个发热症状是不是由疟疾引起的能力。一旦这种因果论框架到位，机器就可能实现前文所说的违实推论。而这是一种能够与人类有效沟通、拥有自由意志乃至罪恶意识的道德实体。
Judea Pearl
以下为Quanta Magazine对Pearl的采访实录：
QM：为什么给你的新书取名“The Book of Why”呢？
P：这本书，是对我过去25年所做的因果论的总结，包括因果论于个人人生的意义，因果论的应用，以及我们如何找到固有因果问题的答案。令人惊讶的是，这些问题已经被科学所抛弃，而我所做的是弥补科学的忽视。
QM：听起来很讽刺，科学已经放弃了因果论，但这不正是科学的全部内容吗？
P：当然，但在科学方程式里你是看不到因果论的可贵的。代数语言十分对称，X能得到Y，Y也就能得到X，这里我是指确定性关系。但数学语言也非常受限，比如你没法用数学语言表述一个简单的事实，即将来临的暴风雨使温度表下降，而非上升。数学还没发展出非对称语言来匹配人类的现实思维，比如X引起Y，并不意味着Y也能引起X。我知道，这句话听起来有些反科学。
但是科学也非常宽容。如果缺少非对称的代数关系，我们可以创造一个。这就是数学的功用。一个简单的因果论演算解决了我们那个时代最伟大的统计学家都定义不清或是难以解决的问题，令我十分激动。
QM：几十年前，您因为让计算机实现概率推理而闻名。能否为我们介绍一下当时的人工智能呢？
P：二十世纪八十年代初我们面对的问题是预测性和诊断性的问题，如医生通过病人身上一系列症状得到其患疟疾或其它疾病的概率。我们希望开发自动系统和人工智能替代各类付费专家，如医生，矿物学家之类。当时，我提出通过概率实现这个目标。但标准的概率计算需要指数增长的空间和时间，所以我发展了贝叶斯网络，更加高效且十分透明。
QM：那你为什么又在新书中把自己描述为AI领域的叛徒呢？
P：在发展能使机器进行不确定性推理的工具之后，我决定离开这个领域，转向更具挑战性的因果推论。可是，很多AI领域的同行仍然局限在不确定性的研究之中，很多领域还把精力耗费在诊断性问题上，却不考虑因果关系。他们想要的只是好的预测与诊断结果。
我们现在看到的所有的机器学习都是在诊断模式下进行的，比如说把目标对象辨识为猫或者老虎。他们不考虑介入问题，只想识别目标物体并预测其随时间的变化。
当我开发出功能强大的预测与诊断工具并意识到这只是人类智能的冰山一角时，我感觉自己成了背叛者。如果我们希望机器实现对介入（比如若禁烟会如何？）和违实（比如若当初高中没毕业会怎样？）的推理，我们必须引入因果论模型。仅仅依靠关联性是远远不够的，这是数学事实，不以人意志而转移。
QM：你不像其他人一样对AI的无限可能性感到兴奋吗？
P：我对深度学习了解的越多，就越意识到当前的研究基本都卡在关联性层面，也就是曲线拟合。如果说机器学习所有卓越的成果都只是曲线拟合，听起来有些亵渎这个领域。但从数学层面看，不论你操控数据多熟练或是能从数据中得到多少信息，都只是曲线拟合而已，只不过更加繁琐和复杂。
QM：从您的观点看，您似乎对机器学习并不认可？
P：不，我对机器学习非常认可。通过简单的曲线拟合，就可以解决比我们预期多得多的问题。但是接下来呢，未来的路该怎么走？我们能够拥有一个自主设计实验、解答那些悬而未决的科学问题的机器吗？我们希望能与机器进行有意义的沟通，机器能与我们的认知相匹配。如果机器不具备人类对于因果关系的直觉，那就不可能实现有意义的沟通。机器人永远无法像你我一样，说：“我本可以做得更好”。我们也因此失去一条重要的沟通渠道。
QM：让机器获得跟我们一样的因果关系认知之后会怎么样？
P：我们必须为机器配适环境模型。如果机器没有现实模型，你就不能指望它有现实情况下的智能行为。人类编程的现实概念模型可能将在未来十年内出现。
接下来，机器将能够基于先验自行建立、验证和改进这些模型。这就是科学，就像人类从地心说到日心说的历程变革。机器之间也将彼此沟通，将这个假想的野性世界转换成隐喻模型。
QM：您是什么时候和AI领域的同行分享这些想法的，他们作何反应？
P：AI领域目前而言是撕裂的。首先，机器学习、深度学习和神经网络的繁荣令一些人迷醉。他们不明白我在说什么，还想延续曲线拟合的成功。但当你跟统计学范畴以外的AI专家谈论这些，他们一点就通。近两个月内就有不少关于机器学习局限性的论文，我都读了。
QM：您的意思是已经逐渐出现抛弃机器学习的趋势吗？
P：不能说是趋势，而是一个严肃的内省过程，是对我们自身的追问：我们将去往何处？下一步该怎么走？
QM：这是我最后想问的问题。
P：还好你没问自由意志。
QM：那您怎么看自由意志呢？
P：绝对会出现拥有自由意志的机器的，这是情势必然。我们必须理解如何编程机器，了解我们将从中获得什么。出于某种原因，就进化而言，自由意志在计算层面也是可行的。
QM：以什么方式呢？
P：你拥有自由意志，进化给我们匹配了相应的感知力。显然，这具备一些计算层面的功能。
QM：我们会明了机器什么时候拥有自由意志么？
P：我认为第一个迹象就是机器开始实现违实的沟通，比如“你本可以做得更好”。如果一个机器球队开始以这种表达方式沟通，那么我们就知道它们拥有自由意志了。“你应该把球传给我！——我一直等着你却没传！”。在更好的沟通之后，当然也就有更好的球赛。
QM：你提出了自由意志，那我也想问问作恶能力。我们普遍认为作恶能力依存于选择能力，那么什么是恶？
P：我认为是你的贪婪和不知足侵蚀了社会准则。比如，你身上有一个软件模块，会告诉你“饿了，你可以做一些事来满足你的贪欲”。但你还有一些其他软件模块引导你遵循社会准则，如同情心。当你的欲望吞没了社会准则，那就是恶。
QM：那我们怎么知道AI什么时候掌控了作恶能力呢？
P：一个明显的迹象就是机器持续性地忽略某个软件模块。当它遵循一部分软件模块的建议而不服从其它模块的命令时，当它忽略或停止遵循维持行为规范模块的指令时，也许它已经诞生了邪恶的想法。
1. https://yq.aliyun.com/articles/368248
2. http://www.360doc.com/content/17/
1214/05/49939005_712893102.shtml
3. https://www.zhihu.com/question/263886044
4. https://www.edge.org/conversation/
judea_pearl-engines-of-evidence
点击“阅读原文” 查看访谈原文。
扩展阅读
本文系网易新闻·网易号“各有态度”特色内容
媒体转载联系授权请看下方